Pháo B-4 được triển khai lần đầu trong cuộc Chiến tranh mùa Đông, với 142 khẩu được triển khai trên tiền tuyến ngày 1 tháng Ba năm 1940, có bốn khẩu pháo bị loại khỏi vòng chiến đấu.

23 khẩu B-4 đã bị quân Phát xít Đức chiếm tại thị trấn Dubno đêm ngày 25/6/1941.

Tổng cộng Hồng quân mất 75 khẩu pháo B-4 tính từ 22/6 đến ngày 1/12/1941, nhà máy chế tạo thêm 105 khẩu pháo để bù đắp lại thiệt hại. Sau khi cuộc chiến tranh vệ quốc nổ ra, các Trung đoàn lựu pháo được sơ tán ra xa khỏi cuộc chiến để bảo toàn, và chúng chỉ được tung trở lại chiến trường ngày 19/11/1942 khi lợi thế chiến lược rơi vào tay Liên Xô. Lựu pháo B-4 được trang bị cho các lực lượng dự bị cho đến khi kết thúc chiến tranh.

Các khẩu pháo B-4 bị quân Đức bắt giữ được Đức định danh lại là 20,3 cm H.503(r), bắn đạn phá bê tông G-620 và đạn pháo của Đức.

Không có tài liệu nào hướng dẫn bắn pháo B-4 trực xạ, tuy nhiên Chỉ huy Ivan Vedmedenko đã thực hiện các phát bắn trực diện vào quân Đức từ khẩu lựu pháo này và đã được tặng thưởng danh hiệu Anh hùng Liên Xô nhờ phát kiến trên.

Pháo tự hành SU-14 cũng lắp đặt tháp pháo B-4.